近日，DeepSeek开源周活动主题进入了第四天，和前几日接连不断的开源项目公开相比，这一天的公开略显姗姗来迟，让众多期待已久的观众稍感焦急。然而，这份等待最终被证明是值得的，由于DeepSeek在这一天一次性揭晓了两项重量级的开源技术。

首先公开了的是DualPipe技术，这是一项基于DeepSeek-V3技术报告提出的创造算法，被命名为“双给管道并行算法”。该算法通过实现计算通信阶段的双给重叠，即在给后计算和给前计算的同时进行数据传输，显著减少了深度进修训练经过中的空闲时刻。DualPipe还引入了一种最新的流水线气泡优化调度策略，这一策略能够有效缓解传统管道并行技术中普遍存在的“气泡”难题，从而提高了硬件资源的整体运用效率。据悉，该算法在GitHub平台一经公开，便迅速收获了544个收藏。

紧接着，DeepSeek又推出了EPLB技术，即“专家并行负载均衡器”。这项技术具有三大显著特征：动态负载均衡、分层和全局平衡结合以及流量优化。在动态负载均衡方面，EPLB基于混合专家（MoE）架构，通过复制高负载专家并采用启发式算法进行任务分配，有效优化了GPU之间的负载分布。在分层和全局平衡结合上，该技术不仅能够在单个节点内进行分层的负载管理，还能实现跨节点的全局负载均衡，显著减少了GPU的闲置时刻。EPLB在流量优化方面同样表现出色，它能够在保持负载均衡的同时，通过调整专家的分布来降低节点间的数据通信量，从而进一步提高了整体训练效率。